Thái sư Trương Bá Ngọc được thờ cùng với người bạn Nguyễn Minh Không tại di tích đền Thượng, xã Gia Trung (Gia Viễn, Ninh Bình). Theo thần tích, Trương Bá Ngọc thực tế họ Lê, người châu Đại Hoàng, do lập công được Lý Thần Tông phong chức thái sư nên ban cho đổi từ họ Lê sang họ Trương theo họ của Ngọc Hoàng Thượng đế. Một hình thức ban "Thiên tính" tương đương với "Quốc tính" cũng do Lý Thần Tông ban cho người bạn của ông là Nguyễn Chí Thành đổi sang Lý Quốc Sư. Tương truyền Thái sư Trương Bá Ngọc và Quốc sư Nguyễn Minh Không là bạn đồng hương, khi còn nhỏ đánh cá bên sông Hoàng Long cùng nuôi chí lớn, đi chu du thiên hạ, lúc thì đăng sơn kích thỏ, khi thì phóng thủy cầu ngư. Sau cả 2 cùng lập công lớn với triều Lý nên được ban quốc tính, một người trở thành Thái sư, một người trở thành Quốc sư.

Theo kịch bản chương trình Năm Du lịch quốc gia 2020 tại Ninh Bình thì lễ hội chùa Bái Đính 2020 sẽ tổ chức sự kiện kỷ niệm 890 năm ngày mất thái sư Trương Bá Ngọc với cuộc hội thảo về thân thế và sự nghiệp của danh nhân này. Thái sư Trương Bá Ngọc còn được thờ tại nhà thờ họ Trương Việt Nam nằm tại thị trấn Thiên Tôn, huyện Hoa Lư, Ninh Bình.